"H100 웃돈 줘도 못구해"…IT기업 '발동동'

생성 인공지능(AI) 시장의 주도권을 잡기 위한 경쟁이 치열해지면서 초거대 AI 개발에 필수적인 엔비디아 칩셋의 품귀 현상이 점입가경이다. 가격이 천정부지로 오르는 단계를 지나 원하는 물량을 제때 구하기 불가능한 단계에 접어들었다. 엔비디아 칩셋을 얼마나 빠르게 확보하는가에 따라 AI 기술 개발이 좌우된다는 얘기까지 나온다.

○“웃돈 내도 H100 확보 어려워”

25일 정보기술(IT)업계에 따르면 초거대 AI 개발에 필요한 엔비디아의 고사양 칩셋인 H100, A100의 확보가 갈수록 어려워지고 있다. 초거대 AI를 보유한 한 국내 IT 기업 관계자는 “돈을 더 낸다고 해도 물건을 확보하기 힘들다”며 “칩셋 확보 속도에 맞춰 AI 기술 개발과 서비스 전략을 세워야 할 정도”라고 토로했다.

생성 AI 서비스를 위해 요구되는 초거대 AI를 개발하려면 고성능 AI 칩셋이 필요하다. 오픈AI의 최신 초거대 AI ‘GPT-4’를 개발하고 운영하는데 엔비디아의 A100 1만 개가 활용된 것으로 알려졌다. A100 1개의 가격은 1만달러(약 1350만원) 수준이다. 최신 모델인 H100은 A100보다 세 배 이상의 성능을 내는데 가격은 개당 4만달러(약 5400만원) 이상이다.

엔비디아는 이 시장의 90%를 차지하고 있다. 나머지 시장의 상당수를 차지한 AMD의 칩셋은 주로 연구소 등에 실험용으로 납품하고 있다. 사실상 엔비디아가 시장을 독차지한 것이다.

생산을 늘릴 수도 없다. 엔비디아의 H100, A100 등을 위탁 생산하고 있는 대만 TSMC가 늘어난 주문량을 맞추기 힘든 상황이다. 현재 최고 사양 제품인 H100의 경우 올해 55만 개를 생산할 계획이지만 이미 예약이 끝난 것으로 알려졌다. 일론 머스크 테슬라 창업자는 “AI 칩셋이 마약보다 구하기 어렵다”고 불만을 터뜨리기도 했다.

○업계 생태계 장악한 엔비디아

글로벌 빅테크는 물론 국내 IT 기업도 엔비디아의 대안을 찾기 위한 시도를 하고 있다. 엔비디아의 공급을 기다리다가 다른 업체와의 경쟁에서 뒤처질 수 있다는 위기의식 때문이다. AI 반도체 시장이 빠르게 성장하고 있어 새로운 기회를 찾기 위한 기업의 진출도 늘고 있다. 시장조사업체 가트너에 따르면 세계 AI 반도체 시장은 지난해 442억달러(약 60조원)에서 2027년 1194억달러(약 161조원)로 두 배 이상 성장할 전망이다.

마이크로소프트는 다음달 열리는 ‘이그나이트’ 콘퍼런스에서 자체 개발한 AI 칩셋 ‘아테나’를 공개할 것으로 예상된다. 챗GPT와 같은 대규모 언어모델(LLM) 구동에 최적화한 칩셋이다. 구글은 2016년 머신러닝에 특화한 TPU 1세대 모델을 시작으로 꾸준히 자체 AI 칩셋을 개발해왔다. 지난 8월 최신 버전인 TPU v5e를 공개했다. 오픈AI 역시 자체 칩셋 개발을 검토 중이다. 한국에서도 사피온, 리벨리온, 퓨리오사AI 등 팹리스 기업이 AI 칩셋을 개발 중이다. 엔비디아를 대체하려는 시도가 성공하기까지 상당한 시간이 걸릴 것이란 전망이 지배적이다. 한 AI업계 관계자는 “AI 모델은 학습과 추론 두 가지 영역으로 나뉘는데 학습 영역에서는 엔비디아를 대체하는 게 현재로서는 불가능하다”고 설명했다.

이승우 기자 leeswoo@hankyung.com